MATHÉMATIQUES , DE LA DIVERSITÉ À L’UNIFICATION

MATHÉMATIQUES , DE LA DIVERSITÉ À L’UNIFICATION

«Ce que nous appelons la réalité objective, c’est, en dernière analyse, ce qui est commun à plusieurs êtres pensants, et pourrait être commun à tous; cette partie commune [...], ce ne peut être que l’harmonie exprimée par des lois mathématiques.» (H. Poincaré).

Malgré ce qu’indique son titre, ce texte n’a pas pour but une étude épistémologique des seules mathématiques en vue de confronter la multiplicité de leurs objets et la richesse de leurs contenus à l’unité profonde qui les caractérise (cf. par exemple A. Lautman, in biblio). Il ne vise pas non plus à examiner uniquement la façon dont, même en mathématiques, des termes bien spécifiés peuvent revêtir des significations relativement plurivoques ou ambiguës, ni la façon dont la délimitation et la fixation de celles-ci peuvent constituer des enjeux théoriques, des enjeux philosophiques et parfois des enjeux de reconnaissance ou de position socio-professionnelle dans la communauté des mathématiciens.

Ces questions seront bien entendu abordées dans la suite, mais nous nous intéresserons plus particulièrement à la façon dont les mathématiques concourent exemplairement au mouvement d’unification qui traverse les disciplines en leur permettant de construire leur objectivité et d’établir leur intelligibilité spécifique. Il s’agira aussi d’interroger les rôles respectifs de la langue naturelle et du formalisme, des données empiriques et des principes théoriques, de la terminologie spécialisée propre à une discipline et des schèmes conceptuels que les mathématiques permettent de formaliser. Unité des mathématiques, certes, mais aussi, grâce et à travers elle, unification des sciences. Cette unification ne réduit en rien la luxuriance des contenus régionaux. Elle manifeste plutôt l’unité profonde de la rationalité qui gouverne les catégorisations et les schématisations structurant et déployant l’intelligibilité.

1. Ambiguïtés terminologiques et univocité scientifique

Considérations générales

Qu’un même terme renvoie à des référents (matériels ou conceptuels) différents, c’est là chose fréquente dans la langue naturelle usuelle (cas des homonymies).

La plupart du temps, le contexte d’utilisation lève toute ambiguïté d’interprétation. Dans le cas contraire, on a à affronter et à dissiper des malentendus mais bien souvent, aussi, la conscience des confusions possibles est exploitée dans la communication, soit dans un sens ludique (jeux de mots), soit à des fins de tromperie délibérée.

Quelquefois, cependant, l’homonymie demeure inapparente, car les concepts concernés ne sont pas encore nettement distingués dans la pensée. La question de leur distinction – et, par conséquent, le sentiment de la nécessité de briser d’une façon ou d’une autre l’homonymie – peut alors constituer un enjeu d’une grande importance cognitive et théorique. Ainsi, c’est toute la logique qui, de l’organon aristotélicien à la logique mathématique moderne (notamment la logique des prédicats, la méréologie, etc.), se trouve engagée dans l’élucidation des référents variés de la copule linguistique («est» renvoie à des prédications d’existence en même temps qu’à des attributions de qualités, c’est-à-dire à des relations d’appartenance d’ensembles ou de classes). En même temps que cette prise de conscience conduit à l’élaboration théorique de la logique mathématique, elle ébauche la distinction entre les langages eux-mêmes, du langage-objet au métalangage. Elle conduit ainsi à un traitement particulier et plus rigoureux de l’homonymie de départ.

Lorsqu’un terme plus ou moins flou de la langue commune accède à la scientificité, on en voit souvent la définition s’affiner, la portée se restreindre en même temps que l’usage s’en fait plus limité mais plus efficace – ou plus opératoire. De fait, ce mouvement se repère très fréquemment mais il n’est pas le seul et parfois une autre évolution, en sens inverse, est aussi clairement perceptible. Des concepts bien identifiés et formalisés dans un secteur donné acquièrent, d’une façon tout aussi formalisable, une portée analogique importante pour un autre domaine, au point de pouvoir contribuer à sa structuration. On assiste alors à un véritable transfert, à un échange entre domaines scientifiques ou entre disciplines.

Par ailleurs, dans un autre registre et en liaison avec le mouvement d’information d’un public moins spécialisé, certains termes, au contraire, peuvent voir leurs significations s’homogénéiser dans une représentation plus vague et plus intuitive que celle qu’ils désignaient au départ et qu’ils se contentent désormais de connoter. Un tel mouvement affecte souvent des termes dont la naissance a été d’emblée technique, sans contrepartie spontanée dans le langage commun de leur époque (entropie, par exemple, ou même singularité ). Il s’agit alors moins d’analogies scientifiques que de métaphores incontrôlées.

Il reste que, en principe et d’un point de vue idéal, à chaque terme scientifique théorique correspond comme tel un schème univoque, déterminant pour la structure théorique dans laquelle il prend sens et possédant une portée ontologique pour la constitution d’objets et de rapports dans le champ d’objectivité considéré. À ce schème répondent alors des multiplicités de corrélats dans les ontologies régionales «ultérieures» – au sens de la dialectique historique de la reconstruction rationnelle – (physique, biologie, etc.). Ainsi, le concept de particule en physique détermine un champ d’objectivité et suppose la validité opératoire de tout un corpus théorique (toutes les propriétés particulaires d’un électron ou d’un photon). Il en va de même, pour sa part, du concept d’onde et l’on sait qu’une difficulté majeure surgit du fait qu’en principe, en physique quantique, c’est le même domaine d’objectivité qui doit se trouver ainsi déterminé. Au point que, pour surmonter l’incompatibilité qui semble en résulter, des physiciens ont proposé d’introduire un terme nouveau pour désigner les objets ainsi construits, le terme de quantons . En biologie, le concept de fonction contribue également à déterminer un champ d’objectivité (et avec lui tout le domaine de la physiologie), mais là encore ses limites sont problématiques: échanges moléculaires physico-chimiques au niveau des membranes et régulation intégratrice globale au niveau d’un organisme présentent peu de traits communs et la question de leur articulation opératoire demeure théoriquement posée.

Explicitons plus nettement tous ces points dans une perspective un peu plus générale.

Il faut distinguer entre deux niveaux: celui des phénomènes empiriques et celui des objectivités théoriques. Au premier correspond, à l’instar d’une «géographie physique», un découpage empirique de la réalité et au second, à l’instar d’une «géographie politique» cette fois, un découpage théorique. Le type d’objectivité des phénomènes n’est pas donné avec eux. Il est le résultat d’une qualification, d’une légalisation objective. Or la dialectique entre les deux niveaux est fort active et rend très mobiles leurs rapports mutuels (c’est là un des aspects essentiels du travail de recherche); c’est notamment de leurs déplacements et des redécoupages constants qu’ils engendrent que surgissent des problèmes de terminologie qu’une adéquation idéalement stable et exacte éviterait.

La situation est inverse à cet égard de celle qui prévaut dans les situations usuelles des classifications quotidiennes où l’on se contente de critères descriptifs empiriques et où les phénomènes peuvent parfois sembler difficilement unifiables au sein d’une classe donnée (l’interprétation en appelle alors à l’introduction de critères pré-théoriques plus ou moins explicites conduisant à une sorte d’élaboration d’un schème empirique). Ainsi en va-t-il, par exemple, du schème «chien», dont la variété des illustrations (teckel, caniche, berger, danois...) peut poser la question, devant une nouvelle forme (lévrier, loup, renard...), de sa classification sous le schème considéré (thématique empirique du genre et des espèces).

La discussion à propos des mathématiques

S’il est un domaine où l’univocité des termes utilisés est considérée comme une condition nécessaire de l’effectivité, c’est bien le domaine scientifique et, en son sein, celui des mathématiques. Ce n’est pas seulement la rigueur démonstrative qui s’y trouve mise en jeu, mais aussi les conditions mêmes d’existence des entités qu’on y construit. Or un concept théorique ne peut être univoque que s’il est défini et l’on distingue traditionnellement deux types de définitions: les définitions nominales et les définitions réelles. Les définitions nominales sont étroitement dépendantes d’un sémantisme lexical plus ou moins précis qu’une perspective scientifique se doit de dépasser. D’autre part, une définition réelle, dans la mesure où elle correspond au contenu objectif des termes, n’est pas accessible: elle s’identifierait à une théorie scientifique complète de l’objet. La mathématique constitue un moyen terme. En effet, en mathématiques, on rencontre avec l’axiomatisation conçue à la fois comme «définition implicite» et comme constitution d’objet une forme de définition quasi réelle. Un des problèmes essentiels est donc de parvenir à axiomatiser (au moins partiellement) les concepts théoriques des sciences, c’est-à-dire d’arriver à traduire mathématiquement leur sémantisme.

Cela dit, même en mathématiques, des termes peuvent être opératoires sans être axiomatisés. Par exemple, I. Lakatos souligne que pratiquement à la même époque le «continu» de Cauchy et celui de Weierstrass ne coïncidaient pas dans leurs représentations respectives; le mouvement ultérieur d’axiomatisation, commencé avec Dedekind, n’est toujours pas complètement achevé (voir sur ce point les débats actuels entre mathématiciens, autour des formes d’intuitionnisme liées à la calculabilité sur ordinateur et autour de l’analyse non standard). De même, en logique et en théorie des ensembles, à propos de la question des antinomies, c’est autour du terme de «prédicativité» et du sens qu’il convient de lui attribuer qu’ont tourné les discussions entre Poincaré, Russell... (cf. G. Heinzmann, in biblio); là encore, le débat n’est pas clos et la question de l’autoréférence reste posée, notamment par le biais des approches informatiques. C’est que toute science, à l’intérieur de ses limites provisoires de définition et par-delà le corpus déjà constitué qu’elle a établi et qui lui sert de cadre référentiel momentané, demeure le lieu d’un débat qui se poursuit et de controverses qui se développent (cf. F. Gil, par exemple, in biblio; voir aussi C. P. Bruter): les disciplines sont en devenir et la variation sémantique des termes qui en font partie contribue à ce devenir qui révèle parfois des polysémies ou des extensions sémantiques abusives là où il semblait pourtant que tout fût clair et univoque (notons sur ce point le rôle important que peut jouer la recherche de contre-exemples – cas de l’antinomie de Russell pour la théorie des ensembles, cas des fonctions continues sans dérivées dans la théorie des fonctions –, cf. également I. Lakatos, in biblio, pour les discussions des relations d’Euler pour les polyèdres).

De plus, il arrive que les mêmes termes, bien qu’ils soient techniquement bien définis et dépourvus d’ambiguïté dans le domaine propre où on les utilise, semblent désigner des concepts très différents selon leur champ de pertinence. Ainsi en va-t-il par exemple du terme entropie suivant qu’on en fait usage en thermodynamique, en théorie des probabilités ou en biologie, ou du terme mesure en physique et en mathématique, ou encore des termes de singularité , de structure ou de symétrie .

L’histoire des sciences est pleine de ces décisions et enjeux que constitue la fixation des significations de termes utilisés plus ou moins consciemment dans des acceptions différentes; même si l’écart et le glissement de sens semblent minimes, leurs effets peuvent être considérables, car ils peuvent renvoyer à des univers de significations et d’interprétations différents. Ces questions ont été largement analysées et discutées, notamment pour la physique et la chimie, par des épistémologues et historiens des sciences, tels Kuhn – qui insiste sur le thème de la communauté linguistique – ou Koyré – qui insiste plutôt sur le développement dialectique et constructif (voir aussi sur ce thème un ouvrage collectif récent, au C.N.R.S.: Le Transfert de vocabulaire dans les sciences , ainsi que, rapportée par Bruter, la récente discussion entre mathématiciens sur le choix, non dépourvu d’enjeu, du terme spécialisé pour désigner la théorie dite des «matroïdes» ou de la «géométrie combinatoire»).

De son côté, à propos plus spécifiquement des mathématiques, Gonseth souligne: «Pour une très forte part, le sens des mots est fonction des façons de parler et de penser d’autrefois; mais, pour une autre part, il est fonction de la façon de parler et de penser d’aujourd’hui. Les mots désignant les choses abstraites sont naturellement ceux dont le sens a le moins de fixité. [...] C’est d’ailleurs une des raisons – la raison principale, peut-être – pour lesquelles toute pensée vraiment nouvelle a tant de peine à être comprise. Le miracle, c’est qu’elle arrive jamais à l’être.» Et, plus loin, il donne un exemple précis, aux confins des mathématiques proprement dites et de la logique, à propos du mot axiome: «Combien un mot peut être de proche en proche détourné de son sens originel, combien le concept qu’il recouvre peut varier par dégradations insensibles et quelquefois par sauts brusques, le mot d’axiome en est maintenant un exemple frappant. Qu’était-il pour Platon? L’expression d’une vérité en soi! Pour Poincaré? Une convention à peu près librement consentie. Pour Russell? Un jugement hypothétique. Pour Zermelo? Au sein du système de base, une partie intégrante d’une définition implicite.» Semblablement, toujours dans le domaine des mathématiques, Desanti, par exemple, traitant des idéalités mathématiques, dresse un historique des significations et connotations techniques et philosophiques de termes fondamentaux tels que continu ou nombre tandis que de son côté H. Poincaré, défenseur résolu de l’usage de l’analogie dans la phase créatrice des mathématiques, se fait plus incisif encore: «La mathématique est l’art de donner le même nom à des choses différentes», en précisant néanmoins immédiatement: «Il faut s’entendre. Il convient que ces choses différentes par la matière soient semblables par la forme....» Derrière ces remarques se profile, bien sûr, la question de l’unité profonde des mathématiques à travers la variété de leurs expressions et de leurs domaines de recherche. Nous y reviendrons.

Cette polyvalence des termes, tout mathématiques et spécialisés qu’ils puissent être, est corroborée à sa façon par J.-L. Krivine qui commente ainsi les rapports entre les modèles dans la théorie des ensembles et leur contenu proprement mathématique: «[...] comme le vocabulaire mathématique ne possède pas deux noms différents pour chaque notion, on est contraint d’utiliser dans le modèle les mots courants du langage mathématique, évidemment dans un sens tout différent de leur sens habituel (l’exemple classique de ce phénomène est le “paradoxe de Skolem” qui provient du nouveau sens que prend le mot “dénombrable” quand on l’interprète dans un modèle de la théorie des ensembles)».

On sait par ailleurs, pour prendre une illustration spectaculaire de ce phénomène, qu’un mot aussi lourd d’évocation que celui de «fini» (ou d’«infini») présente une analogue variation de sens selon qu’on le comprend au niveau mathématique intuitif ou encore dans le cadre de la théorie des ordinaux ou dans celui de l’analyse non standard (ces questions sont également évoquées au chapitre IV du livre de D. Nordon, intitulé justement: «Donner un sens plus pur aux mots de la tribu?»).

Le rôle de la mathématisation

Dans une science donnée, les termes techniques ne possèdent pas tous le même statut; certains se rapportent directement à la caractérisation de l’objet alors que d’autres renvoient par surcroît à des interventions que l’expérimentateur peut effectuer sur lui. Dans ce dernier cas, non seulement l’expérimentateur enregistre des propriétés de l’objet, mais il peut même ne pas pouvoir éviter de participer à sa caractérisation.

Ainsi, alors qu’avec le concept d’entropie on cherche à caractériser des propriétés du système considéré lui-même (quelle que soit sa nature: physique, biologique ou mathématique – espace des probabilités –, nous laissons de côté ici la discussion sur l’aspect subjectif ou non de cette caractérisation), dans le cas du concept de mesure , on se trouve dans une situation différente. Classiquement, on mesure des grandeurs inhérentes au système considéré. Mais le même terme (mesure) peut également désigner une action effectuée par l’observateur sur le système en vue d’en caractériser des grandeurs. En ce cas, même si l’effet numérique est négligeable, la conséquence de principe peut ne pas l’être: par exemple, un physicien mesure toujours un rationnel là où la mesure mathématique peut être un réel (irrationnel ou transcendant). Mais la difficulté n’est pas toujours que de principe et sans portée gnoséologique: de ce double sens du concept de mesure (la quantité évaluée et l’action effectuée), la mécanique quantique témoigne douloureusement! Une mesure intrinsèque, au sens mathématique, est toujours associée à une grandeur physique, du moins est-ce là une condition de possibilité de l’observation expérimentale; mais son effectuation passe par une opération de mesure et celle-ci non seulement perturbe ce qui est à mesurer (au sens classique), mais aussi devient constitutive de la mesure (mathématique) elle-même, via, notamment, les relations d’indétermination entre grandeurs conjuguées (relations dites d’incertitude de Heisenberg). Bien plus, l’opération de mesure comme telle rend le système observable (ce qu’on appelle réduction du paquet d’ondes ou encore projection du vecteur d’état): des résultats que laisse attendre la loi de probabilité qui décrit le système, la mesure physique ne sélectionne qu’une partie (un état propre), dont elle fournit la valeur en éliminant les autres parties.

Notons de plus qu’au sein d’une même discipline la variation plus ou moins importante du sens d’un terme est souvent attachée au niveau de son utilisation (cf. supra , la citation de Krivine). Prenons à titre d’illustration le terme de structure . On le trouve par exemple en logique et en théorie des modèles, dans un contexte métamathématique, avec une acception très précise caractérisant la nature même de l’univers logique considéré (par exemple dans le titre de l’ouvrage de Van Dalen: Logic and Structure ). Dans les mathématiques elles-mêmes, il intervient dans la théorie pour spécifier l’aspect opératoire formel des entités considérées: on parle de structure de groupe, d’anneau, de corps, etc. On le trouve aussi, toujours dans le corpus mathématique mais avec une portée beaucoup plus limitée, pour parler de particularités d’objets bien définis – la structure d’une intégrale, celle d’un polynôme, d’une équation. Il ne revêt pas alors une signification très précise et son emploi devient proche de celui qu’on en fait dans la langue commune. Ainsi, suivant le contexte de son usage et le niveau d’abstraction auquel on l’emploie (métathéorique, ensemble d’opérations, objets), ce terme en vient à désigner des significations qui, si elles ne sont évidemment pas vraiment différentes, n’en sont pas moins plus ou moins «techniques» ou floues.

À travers ces quelques exemples transparaît clairement la question essentielle des rapports entre unité et diversité, entre caractérisations en compréhension (selon des énoncés synthétiques pouvant constituer des définitions) et en extension (description et énumération d’éléments rassemblés en classes).

Unité conceptuelle, donc, et diversité phénoménale, mais aussi diversité interprétative et unité objectale, diversité de contenu et unité méthodologique, et, plus généralement encore, unité d’un niveau de réalité (fût-il celui d’idéalités abstraites) ou d’un niveau d’interprétation en rapport avec la diversité d’un autre niveau dont il rend compte ou, au contraire, en lequel il se met en œuvre et prend sens.

Les mathématiques représentent une réalisation exemplaire d’un tel rapport dynamique et fécond entre unité et multiplicité. Leurs contenus théoriques présentent une variété d’une extrême richesse dont, au prime abord, on peut penser que les composantes sont mutuellement irréductibles tant les démarches, procédures, constructions qui les produisent sont différentes. Mais il apparaît rapidement que, sans pour autant changer de niveau d’abstraction et dans le cadre des mathématiques elles-mêmes, d’autres démarches, procédures, constructions permettent une unification non seulement conceptuelle mais aussi opératoire (pour les mathématiques).

Qui plus est, les mathématiques ne se réduisent pas, de ce point de vue non plus, à une gigantesque tautologie qui ne cesserait de se paraphraser elle-même. Leur travail d’unification n’est ni statique ni stérile: il ouvre les voies à d’autres créations variées et multiples qui en appelleront elles-mêmes à leur tour à une unification.

Ainsi se manifeste le rythme d’une «dialectique» de la mathématique qui en assure tout à la fois le développement et la cohésion.

On conçoit dès lors, puisque leur être et leur devenir en représentent la thématisation même, que les mathématiques et la mathématisation constituent l’expression et la méthode privilégiées pour le traitement du rapport entre l’un (conceptuel ou objectal) et le multiple (phénoménal ou interprétatif) dans d’autres disciplines. Il est vrai que, dans ce cas, il faut alors rendre compte du fait que, bien que traitant d’une empiricité matérielle (et non pas d’idéalités), ces disciplines non seulement se prêtent à une telle mathématisation mais encore y puisent comme à la source de leur intelligibilité. Nous y reviendrons dans la dernière partie.

Par-delà la question de l’unité des mathématiques proprement dites, ce sont donc ces aspects relatifs à leur rôle conceptuellement unificateur de la diversité phénoménale et, à un niveau plus élevé, au mouvement d’unification rationnelle des conceptualités scientifiques régionales elles-mêmes que nous nous proposons maintenant d’aborder de façon plus approfondie.

2. Le mouvement de théorisation et le statut de l’intelligibilité

La perception, l’usage des langues naturelles, la communauté culturelle nous accoutument et nous confrontent à un donné diversifié, plus ou moins prédécoupé et préconstruit par leurs conditions représentatives et différencié, comparé, ordonné, classé, élaboré, reconstruit par leur intelligence préthéorique spontanée. Ainsi s’installe le jeu d’une double diversité: celle qui est relative à la multiplicité des régions empiriques (avec leurs concepts descriptifs et opératoires) et la diversité relative à la multiplicité des concepts théoriques destinés à les interpréter et à leur conférer une intelligibilité. (Cette démarche n’est évidemment pas réservée à la seule approche scientifique ou rationnelle du réel: elle correspond aussi aux approches magiques ou aux interprétations mythiques du monde de la nature et des relations humaines [cf. par exemple le livre de D. Sperber, Le Symbolisme en général ]. Ses effets sont alors, bien entendu, très différents, d’autant que dans ces perspectives elle ne se situe pas dans la thématique fondamentale de la coupure sujet/objet.) Essayons d’examiner tour à tour ces deux caractéristiques de notre rapport au monde.

Des questions de méthode

Partons de la multiplicité des régions empiriques. On se pose des questions du type suivant: les régions sont-elles ou non autonomes ? Les phénomènes permettent-ils à eux seuls de les délimiter et selon quels critères? Peut-on définir un domaine de base commun permettant d’unifier des théories descriptives usant de concepts empiriques et opératoires différents? On voit qu’il s’agit de prendre en compte deux démarches à la fois. L’une est propre au réductionnisme habituel qui consiste à traduire les concepts descriptifs et opératoires d’un domaine dans les concepts pertinents et constitutifs de la région de base, ce qui conduit, quant à la méthode, à une unification par la traduction et, quant au contenu, à un physicalisme universel. L’autre correspond au contraire à la caractérisation de l’autonomie du domaine, dans son intelligibilité et sa légalité, à travers la constitution d’un type d’objectivité spécifique. L’unité se réalise alors par la subsomption des phénomènes. C’est ce que la tradition rationaliste (en particulier husserlienne) appelle une ontologie régionale.

Précisons. Dans son acception courante, le réductionnisme explique causalement les niveaux d’organisation supérieurs par la physique sous-jacente et privilégie le rôle des concepts empiriques descriptifs et opératoires. Mais il existe par ailleurs un autre type de réduction, morphologique ou structurale, qui consiste à ramener des formes complexes à des formes simples, des morphologies dérivées à des morphologies sources. I1 en résulte le plus souvent un double mouvement associé à une dualité descriptive (l’interaction mécanique des éléments d’un système d’une part, le rapport morphologique et fonctionnel entre des parties et un tout intégrateur d’autre part) ainsi qu’à une dualité de régions de base (celle des éléments et interactions d’une part, celle des structures et fonctions d’autre part). Ce double mouvement serait particulièrement bien illustré par une épistémologie de la biologie qui prendrait en compte à la fois les explications analytiques de la biologie moléculaire – en rapport avec les conditions physico-chimiques de fonctionnement – et les représentations plus globales (biologie de l’évolution, biologie du développement) où la morphologie et la physiologie tiennent une place essentielle (cf. S. J. Gould, par exemple, in biblio). Soulignons à cet égard le rôle très important que peuvent jouer ici les «mathématiques qualitatives» et les modèles morphodynamiques (cf. R. Thom ainsi que J. Petitot, in biblio, pour une discussion approfondie).

Quant à l’autonomie (ontologique et épistémologique) des régions, elle découle de l’analyse des structures d’intelligibilité . Cette analyse conduit au problème central des concepts indéfinissables (concepts primitifs) des théories considérées. Une fois formalisés (via l’axiomatisation que nous avons évoquée plus haut), ceux-ci deviennent sources de légalité. Leur statut se transforme: de descriptifs qu’ils étaient (et en cela subordonnés aux manifestations empiriques), ils deviennent prescriptifs et jouent dès lors un rôle organisateur pour le champ d’empiricité auquel ils confèrent intelligibilité et autonomie. Du même coup, ces concepts s’internalisent à leur domaine d’usage spécialisé et deviennent concepts théoriques, soumis à la double validation de la contrainte de la corroboration expérimentale et à celle de la cohérence théorique. En outre, du fait que l’axiomatisation engage les mathématiques et que dans ces dernières les procédures de construction et de dérivation jouent un rôle essentiel, ces concepts législateurs formalisés deviennent des sources de modèles mathématiques pour les phénomènes, c’est-à-dire les sources d’une diversité construite que l’on peut mettre en rapport avec la diversité empirique donnée . La physique est exemplaire à cet égard: certains grands principes normatifs (relativité, conservation, continuité, moindre action, etc.) deviennent, une fois exprimés mathématiquement, la source d’équations fondamentales dont les solutions sont autant de modèles pour des classes entières de phénomènes.

Retour sur l’unification mathématique et l’axiomatisation

Les concepts théoriques d’une discipline forment une hiérarchie conceptuelle édifiée sur les concepts primitifs. Ces derniers ont un statut catégoriel (au sens philosophique du terme); leur formalisation-mathématisation correspond à ce que, dans la tradition rationaliste (transcendantale, et en particulier kantienne), on appelle d’abord la schématisation puis la construction (mathématique) des catégories. Comme nous l’avons signalé plus haut, la schématisation remplace le sémantisme des concepts par des règles de construction d’objets, et c’est ce travail de conversion qui la rend si essentielle.

Insistons sur ce point. On a en général tendance à considérer que les mathématiques fournissent principalement des modèles de la diversité des phénomènes; mais cela est très largement insuffisant. Le rapport entre mathématiques et réalité, sur lequel nous reviendrons plus longuement dans la dernière partie, est aussi et peut-être avant tout une interprétation mathématique des concepts théoriques fondamentaux. (Soulignons fortement le fait qu’il s’agit d’une interprétation par les mathématiques de ces concepts théoriques et nullement d’une interprétation des mathématiques: ce qu’on peut appeler ici une «herméneutique mathématique» n’est en rien une herméneutique des mathématiques. Ce point sera, lui aussi, traité plus longuement dans la troisième partie.) Un tel lien organique entre interprétation et mathématiques permet de comprendre et en grande partie de résoudre deux des principales apories (d’ailleurs assez étroitement liées) de l’épistémologie moderne, à savoir:

– le rapport entre vérité-adéquation et vérité-cohérence;

– le rapport entre vérité objective (pour laquelle la vérité ne saurait être interprétative) et valeur historique des théories (pour laquelle l’interprétation ne saurait être véridictive).

Pour les mathématiques elles-mêmes, le rôle de la schématisation-construction est tenu (même si ce n’est pas exclusivement) par le mouvement d’axiomatisation sur lequel il convient de nous arrêter à nouveau un instant tant son importance est grande (et tant, aussi, il intervient dans la question de la délimitation, de l’usage et de la plurivocité éventuelle des termes spécialisés). C’est dans l’axiomatique que viennent se nouer les dimensions analytiques et synthétiques de la connaissance. Car une axiomatique comprend à la fois une structure formelle (syntaxe, langage) et un champ d’interprétation (sémantique, objets). La syntaxe concerne la déductibilité, la démonstration, l’inférence. Lorsqu’on la privilégie, on arrive à l’idée que l’axiomatique élimine les contenus (c’est le point de vue logiciste). Mais une axiomatique est en fait plus qu’une logique vide de contenu.

On sait, en effet, que l’axiomatisation des théories n’arrive pas en général à caractériser les objets de celles-ci: les théories intéressantes ne sont en général ni finiment axiomatisables ni catégoriques (il existe des modèles non standards; cf. le théorème de Lowenheim-Skolem pour les logiques du premier ordre). Comme y insiste G. Granger, il existe des «contenus formels», et la corrélation entre objets et actes opératoires n’est pas une identité (contrairement à ce que supposait la thèse logiciste): il y a un excès irréductible des contenus objectaux sur les actes opératoires syntaxiquement réglés, ce que Gödel appelait l’écart irréductible entre la combinatoire démonstrative (automatisable par une machine de Türing) et le concept «hautement transfini de vérité mathématique objective». Autrement dit, le rêve hilbertien de résorber, en mathématiques, 1’«existence» (les contenus objectaux, la «réalité», etc.) dans une analyse de 1’«essence» ne peut pas aboutir: même si les structures mathématiques sont idéales, elles ont une réalité objective qui n’est pas réductible au langage. À noter que ces données peuvent constituer la base d’une critique des nominalismes logicistes et un argument en faveur d’un platonisme qui ne serait plus «naïf». Il n’est pas dans notre propos d’en traiter ici, mais signalons que nous touchons là à un débat essentiel en philosophie des mathématiques, où se confrontent le logicisme nominaliste (avec Russell, Wittgenstein, Carnap), la philosophie du concept en mathématiques (avec Cavaillès, Lautman), la version platonicienne du formalisme (avec Gödel), le néo-intuitionnisme de l’analyse non standard (avec Reeb, Harthong, Salanskis).

Quoi qu’il en soit de ces difficultés, il reste que l’axiomatisation représente en effet le lieu privilégié où s’opère la régulation de la définition et de l’usage des termes spécialisés, régulation formellement normative mais qui n’exclut pas la latitude interprétative puisque les systèmes axiomatiques sont appelés à se réaliser dans plusieurs théories. Comme l’écrit R. Blanché: «... avec l’axiomatique, [...] on rassemble plusieurs théories en une seule, on pense le multiple dans l’un».

Le rôle de la logique et de la langue

Pour revenir à nos considérations initiales, il apparaît que nous sommes confrontés à un processus complexe d’unification rationnelle destiné à conférer une intelligibilité au monde. Dans ce processus, la dialectique de la diversité et de l’unité des mathématiques tient une place centrale: la babélisation linguistique peut s’en trouver régulée, car cette dialectique permet de traiter des multiplicités théoriques sans renoncer à les organiser de façon sensée et unifiée et permet ainsi d’en dresser un tableau ni réduit ni confus. En témoigne aussi, à sa façon, le jeu linguistique au sein même des mathématiques tant dans leurs phases de création que dans celles de controverses et débats. Nous avons d’emblée évoqué ce jeu à travers quelques exemples. Il n’est donc pas inutile, pour conclure cette partie, d’essayer de considérer les rapports complexes qu’entretiennent les énoncés logiques formels (et à certains égards la formalisation mathématique elle-même) et la langue naturelle.

L’activité logique de formalisation est doublement reliée au langage: d’une part, en tant qu’elle produit des énoncés (de façon autonome) et, d’autre part, en tant que ces énoncés logiques peuvent eux-mêmes porter (de façon hétéronome) sur d’autres énoncés (linguistiques, mathématiques, etc.).

Dans chacun de ces cas, la mise en œuvre de la langue naturelle s’effectue de façon bien différente. Pour la logique, qui produit ses énoncés de façon autonome, la langue naturelle constitue une sorte de métalangage en cours d’invention et de ce point de vue les énoncés logiques peuvent être traités comme des éléments d’une discipline particulière (la logique comme telle). D’un autre côté, dans la mesure où ces énoncés portent sur des énoncés appartenant à une langue (plus ou moins) naturelle, ils constituent cette dernière en langue-objet. Ainsi, de la même façon que l’on est amené à considérer pour la raison un double statut, la raison constituante et la raison constituée, on est conduit à distinguer pour la langue, relativement à la logique, deux fonctions: une fonction référenciante et une fonction référenciée. Précisons.

En tant que référenciée, la langue doit d’une façon ou d’une autre, pour faire sens et conjurer les paradoxes, se plier à une théorie des types capable de discriminer entre les différents niveaux de ses énoncés. Mais la construction d’une telle théorie des types fait, quelle qu’elle soit, appel à la fonction référenciante de la langue. Celle-ci guide en effet l’élaboration conceptuelle et la formulation des énoncés formels. Ainsi, la fonction référenciante norme et invente.

Elle régit l’activité créatrice et organisatrice. La fonction référenciée est objet d’étude et d’analyse. Elle exige la médiation d’un langage logique qui l’objectivise et permette de la traiter rigoureusement au regard de sa propre fonction référenciante. (L’exigence d’une «logique effective» [P. Lorenzen] porte essentiellement sur l’aspect référencié, comme dans l’intuitionnisme qui voit l’activité de pensée à l’œuvre dans le processus d’élaboration et de construction mathématique. Mais en tant qu’elle innove et crée, c’est-à-dire en tant qu’elle fait surgir des références inédites, l’activité de pensée ne répond pas à des critères ou à des normes de constructibilité: elle les produit.) La situation à cet égard est un peu comparable à celle que l’on rencontre avec le concept de «modèle» suivant l’angle sous lequel on l’aborde: fonctionnant comme une abstraction formalisante dans les sciences empiriques, il fonctionne au contraire comme une modalité particulière de réalisation dans la théorie logique des modèles.

3. Mathématiques, réalité et signification

Pour conclure, venons-en à quelques considérations générales sur la place et le rôle des mathématiques dans l’exercice cognitif de la rationalité. Comme nous l’avons déjà évoqué plus haut, deux types de questions paraissent inévitables. Leur clarification et leur approfondissement ont de tout temps alimenté la réflexion philosophique et la théorie de la connaissance. Que peut-on entendre par la «signification» des concepts mathématiques (par rapport à ce que l’on entend d’habitude par ce terme)? Que penser de l’existence de cette extraordinaire correspondance opératoire et formelle entre concepts formels et éléments (rapports d’objets, lois, principes) de la réalité physique, correspondance sur laquelle reposent tout à la fois une intelligibilité et une action efficaces?

Le rationnel et le réel

Nous ne reviendrons pas sur toutes les analyses et interprétations philosophiques du fait que le monde nous soit cognitivement accessible et que cette connaissance trouve avec les mathématiques, malgré leur caractère formel et idéal, un moyen privilégié pour se réaliser, au point que H. Poincaré a pu écrire la citation placée en épigraphe de ce texte et que E. Wigner a pu parler, à propos de la physique, de «l’efficacité déraisonnable des mathématiques».

Acceptons plutôt de réfléchir un instant dans une perspective exactement inverse: ne serait-il pas plus mystérieux encore, plus opaque et plus énigmatique que le monde ne fût ni intelligible ni formalisable alors même que nous bénéficions de cette capacité de raison tout en participant étroitement de ce monde? Si l’Univers était intrinsèquement inintelligible, rétif à toute représentation formelle, d’où pourrait bien provenir que cette partie que nous constituons fût néanmoins en situation de pouvoir raisonner, représenter, calculer? En fait, l’Univers est une condition de possibilité de notre faculté de penser de façon rationnelle (la ratio essendi ). Dès lors qu’il a pu effectivement donner naissance à une intelligence rationnelle, il tombe nécessairement dans son champ et se révèle ainsi comme intelligible (la ratio cognoscendi ).

En tant que produit par excellence de cette condition de possibilité, les mathématiques ne sauraient être totalement étrangères aux structures de compréhension du monde. (Pour autant, aucune isomorphie n’est imposée, et le champ de la création mathématique n’est pas délimité par les conditions «mondaines» qui l’ont rendue possible: si l’intelligibilité comme telle surdétermine en effet l’existence et certaines des normes de fonctionnement [raisonnements rigoureux, invariances logiques] des mathématiques, en revanche celles-ci demeurent sous-déterminées dans leur contenu et ouvertes à toute prolifération créative.) De fait, les mathématiques contribuent (et ce de plus en plus en physique) à la constitution même des objectivités scientifiques. Il serait donc éminemment difficile d’arriver à expliquer comment un monde dont nous sommes les produits historiques pourrait ne pas être rationnellement intelligible, formalisable et mathématisable dès lors que nous parvenons à raisonner et à mathématiser en général entre nous.

Comme cela a été montré de façon convaincante par K. O. Apel et J. Habermas, le scepticisme absolu relativement à la connaissance scientifique s’autoréfute du fait que son affirmation rationnelle s’appuie déjà sur le postulat (sa condition de possibilité) de l’a priori transcendantal de la communauté communicationnelle. Il en va de même pour la position d’un solipsiste. Une sorte d’écho proprement philosophique à ce qu’écrivait Poincaré: «Ce qui nous garantit l’objectivité du monde dans lequel nous vivons, c’est que ce monde nous est commun avec d’autres êtres pensants.» À ce niveau, il revient donc pratiquement au même, malgré l’antagonisme apparent des formulations, de dire que la possibilité de structuration mathématique du monde dépend (constitutivement) de la structure effective de ce monde (via la biologie puis la culture) ou, à l’instar de Wittgenstein par exemple, que ce sont des règles grammaticales qui forcent notre représentation de cette structure. Dans les deux perspectives, d’ailleurs, on se trouve confronté au jeu entre surdétermination et sous-détermination évoqué plus haut: l’autonomie du niveau mathématique atteint autorise une richesse créatrice qui excède de loin la part requise pour assurer la correspondance entre réel et formel mathématisé et de même la «force de la règle» (cf. J. Bouveresse, in biblio) excède en ses exercices comme en ses virtualités ce qu’elle norme effectivement du réel. Il y a place pour un imaginaire, faute duquel il deviendrait abusif de parler de création.

La science et le (non-)sens

Quant à la question d’un «sens» des concepts mathématiques, elle est fort ambiguë, ainsi que celle d’une herméneutique qui pourrait leur être associée. En effet, les sciences en général et les mathématiques plus que toute autre visent à dégager leurs résultats et leurs énoncés des conditions de leur production et même de toute dimension historique. Ce faisant, elles tendent à s’affranchir de toute signification intrinsèque et de toute réflexion herméneutique dans la mesure même où ces caractères sont étroitement associés à une genèse et à ses conditions (précisons pour éviter toute confusion qu’il s’agit là du statut des concepts en tant qu’ils sont à l’œuvre dans une science et non pas du regard épistémologique ou philosophique que l’on peut porter sur eux). Si l’on veut conserver l’idée d’un «sens» des mathématiques, on se trouve immédiatement orienté vers l’opérativité. Ainsi Desanti explique-t-il: «Pour une propriété, “donner sens” à un concept signifie “ouvrir et délimiter un champ de problèmes pour la solution desquels le concept en question exige d’être défini”.» Bref, les structures mathématiques, avec leur aptitude à d’incessants développements, sont exactes, constitutives de l’intelligibilité scientifique mais, à proprement parler, dénuées de sens (ce qui ne veut pas dire, bien évidemment, qu’elles sont dénuées de contenu sémantique, mais leur contenu sémantique scientifique ne fait pas sens dans l’acception convenue de ce terme, à savoir comme porteur de signification et d’enjeu dans et pour les relations humaines) même si leur traduction et leur interprétation en langue naturelle leur en confèrent (tout en les écartant, d’ailleurs, de l’exactitude technique: «Ce qui est rigoureux est insignifiant», a pu écrire R. Thom). Cela dit, cette affirmation est peut-être trop tranchée: elle suppose en effet qu’aucune «histoire» interne du concept n’est décelable dans l’usage qu’on en fait. Or ce n’est pas totalement le cas (nous l’avons vu dans la première partie lorsque nous avons évoqué l’ambiguïté de références et de représentations que pouvait véhiculer le terme de «continu», par exemple); en effet, la façon de parvenir à un résultat participe de fait à sa «signification», même s’il s’abstrait finalement le plus souvent de sa «nature» et des conditions de son usage. L’accroissement de connaissance n’est pas seulement associé au rapport entre 1’«état initial» et 1’«état final» des démonstrations, mais également au genre de chemin parcouru (pas toujours unique, d’ailleurs) pour passer de l’un à l’autre (dès lors, on pourra trouver du synthétique là où l’on ne s’attendait à trouver que de l’analytique, mais ce synthétique résultera paradoxalement de la façon dont se fait l’analyse).

On peut interpréter de ce point de vue l’obligation d’avoir à présenter, comme l’exigent les intuitionnistes, un «procédé constructif» des idéalités mathématiques permettant de légitimer leur existence et de garantir la non-absurdité de leur interprétation. La constructibilité introduit en effet une sorte de dimension diachronique dans la production des concepts; dans ce processus, les axiomes ou les intuitions fondatrices jouent en quelque sorte le rôle d’une «origine» à partir de laquelle se déploie la théorie. Celle-ci acquiert alors une «signification» plus ou moins intuitive dans la conjugaison de ces deux dimensions – la donnée axiomatique originaire et la procédure de construction corrélative. La création théorique étant ainsi devenue historique du point de vue même de l’internalité théorique, il en résulte un mode particulier de signification. On peut comprendre aussi sous cet angle le débat mentionné plus haut sur la recevabilité théorique de certains concepts.

Ajoutons enfin qu’en mathématiques la question de la signification apparaît également avec celle de l’intertextualité (l’intertraduction, l’entre-expression des théories). Les théories sont capables de s’interpréter mutuellement et de se traduire partiellement les unes dans les autres; comme les mythes, elles «se parlent entre elles». Ce fait a des conséquences en physique mathématique, par exemple relativement à l’interprétation de théories physiquement, mais non formellement, équivalentes (cf. les formulations respectivement newtoniennes, hamiltoniennes, lagrangiennes de la dynamique, par exemple, ou encore la mécanique ondulatoire de Schrödinger par rapport à la mécanique des matrices de Heisenberg en théorie quantique). C’est à travers les propriétés d’entre-expressions mathématiques que l’on verra se maintenir la correspondance étroite entre théories physiques et formalisme mathématique. Toutefois, cette traductibilité mathématique n’opère qu’à un niveau global, et cela n’est pas sans conséquence pour les rapports entre physique et mathématiques. En effet, il n’est en général pas possible d’assigner à chaque étape d’un calcul ou d’un raisonnement un répondant physique précis. Les intermédiaires entre hypothèses et conclusions semblent manquer de pertinence opératoire.

Il n’y a manifestement pas de rapport bien défini et bi-univoque entre les procédures de déduction mathématique et l’analyse causale physique, entre les opérations du calcul et les interactions entre éléments de réalité.

La correspondance entre l’empiricité et le formalisme reste donc globale et interprétative, et c’est à ce niveau (que l’on pourrait presque qualifier, ici, d’herméneutique) que l’unité apportée par l’entre-expressivité mathématique joue un rôle décisif. L’unification porte sur une totalité conceptuelle de relations et non pas sur une accumulation de données empiriques dans chacun des domaines disciplinaires. Les découpages et les liaisons entre éléments ainsi constitués appartiennent en propre à chaque secteur scientifique, ce qui garantit leur autonomie respective. La structure formelle de ces rapports, en revanche, se situe à un niveau d’abstraction suffisant pour faire l’objet d’une unification théorique dont les mathématiques constituent le socle, l’instrument, le moteur et l’expression.

Encyclopédie Universelle. 2012.